Meta-Modal Agent: Sequential Evidence Routing for Missing-Modality Candidate Reranking
元模态智能体:面向缺失模态候选重排的序列化证据路由
🧭 缺失模态推荐 · 序列证据路由与LLM Agent ★ 深度解读
Swinburne University of Technology · Southeast University · Tongji University · Chengdu University of Information Technology · Wuhan University of Technology
将冷启缺失模态视为序列证据路由问题,用PPO训练LLM Agent融合自动工具与检索分数进行候选重排
📌 工作参考价值(4 点)
- 缺失模态应对策略:将缺失模态视为 “Null 观察” 而非特征缺失,通过 agent 路由到可用证据源,避免了对不可靠补全的依赖。电商中新品冷启、用户无行为时可直接借鉴。
- Agent 训练技巧:使用 PPO 训练时加入任务平衡采样(balanced missingness-task),确保极度缺失场景(如仅图像)获得与全观测场景相同训练暴露,防止策略偏向简单情况。可迁移至推荐 agent 的强化学习调优。
- 重排序与融合设计:Agent 只对上游检索返回的候选池打分,最终排序通过加权融合模型分数与原始检索分数(公式 (2))。该“检索-重排”解耦架构允许灵活插入 LLM agent,且通过融合权重控制新旧信号比例,适合现有推荐管线改造。
- 路由机制验证:与固定规则路由器(RuleRouter-Fuse)对比,学习到的路由不仅提升 NDCG@10,还降低了无效工具调用率(47% vs 65.8%)和平均轮次(2.5 vs 3.8),说明 RL 训练出的策略更高效,可作为 agent 工具调用的优化范式。